A.I. IS SO HOT.
需要散熱


A.I. (人工智慧) 市況火燙,繼NVIDIA後,AMD也加入戰局。然而,晶片高速運作,與之相應而來的發熱問題,就必須為伺服器量身打造,可讓它們「冷卻」下來的散熱模組。
MoneyDJ專題為您盤點當今A.I.伺服器所採用的散熱技術、規格、以及後續發展的趨勢——哪怕A.I.再熱,伺服器,還是很COOL

散熱技術大觀園

隨著晶片效能提升、運算效能持續拉高,其需要的電力瓦數越高,衍生出的散熱問題與解決方案隨之升級,已成為勢在必行的趨勢。從手機、PC、車用、新能源、乃至一般資料中心伺服器與AI伺服器,散熱技術的應用廣泛,解決方案的樣貌也越來越多元,包括了熱管、熱板、3D VC、甚至是水冷,都是隨著應用的多元和效能提升所帶動不同的方案。

以日常所見的電子產品而看,一般桌機所需電力大約65瓦、筆電則約為15瓦。相較之下,伺服器的功耗普遍落在400瓦、甚至更高,當CPU越熱時,系統廠必須得解決熱的問題,包含電力配置、散熱效能,都必須要重新考量與調整,因此對晶片廠來說,也要考量到使用加速器的方式來提供效能,來控制整體的功耗。散熱的解決方案要再提升等級,已成趨勢。

散熱分為氣冷(一般氣冷、3D VC);
水冷(冷凝板、浸沒式)兩大領域。

useMyKeyWord

氣冷

一般氣冷

是目前市場上的主流,主要是透過金屬導熱的方式來帶走熱能,像是銅或者鋁、不鏽鋼。熱管的概念是用就是扁扁的銅管,熱的銅管壓扁,封頭、塞毛細、抽真空、注水,再去壓扁。熱板其實跟熱管的原理差不多,就是上下板兩片銅或不鏽鋼封起來,透過蝕刻、毛細,兩片再銲接起來,跟熱管一樣抽真空、注水。氣冷目前大多是透過模組方式呈現。

氣冷3D VC

3D VC是結合熱板和熱管的方案,沖壓、壓鑄的過程要有完整的毛細結構、抽真空。模組就會是把許多元件組成。除了熱管、熱板之外,還會有鰭片、風扇等等組成。從熱板上延伸出圓柱體的熱管,連結成為一個真空體,足以支應500瓦以上用電系統的散熱需求,實際應用包括高階伺服器、電信基地台到強波站、機房等等。

水冷:分成封閉式迴路、開放迴路浸沒式

封閉式迴路

採用水冷板,液冷分配器(CDU )把冷水透過分岐管(CDM)打到每一層的水冷板(cold plate),水冷板裡的水遇晶片熱能變熱水,再流動至機櫃背門,熱水透過機櫃背門風扇將熱水吹涼後,再流回CDU,不斷進行循環,此種為小型機櫃水冷式解決方案。相比傳統的氣冷系統,水冷散熱技術可提供更好的散熱效果,同時降低能源消耗、提高能源使用效率。

浸沒式冷卻(immersion cooling)

是液冷技術(liquid cooling)中的一種,透過將伺服器直接浸泡在不導電的液體中,將零組件產生的熱能傳導給流體,不需要其他主動式的冷卻零件,譬如散熱鰭片、導熱銅管或風扇等等,溫度上升的液體,則透過循環冷卻方式再回流繼續吸收熱能。

延伸閱讀

各種散熱優劣比一比

目前伺服器主晶片的種類與組合百百種,當中大約有10%需要使用到水冷,當中水冷板仍大於浸沒式。完全看客戶的需求而定。未來會逐漸朝向轉用水冷,只是時間點的問題。

useMyKeyWord
useMyKeyWord
useMyKeyWord
useMyKeyWord

聽MoneyDJ Podcast

MoneyDJ Podcast
Ep.153 AI、車用、新能源大趨勢都需要它! 散熱廠大解析

useMyKeyWord
useMyKeyWord
useMyKeyWord
useMyKeyWord
useMyKeyWord

台灣散熱模組族群佈局

目前的AI伺服器仍以氣冷做為主要方案,但客戶對於水冷方案已經進行許多測試與開發案,比起先前更為積極。

對散熱廠商來說,無論是哪一種散熱技術,都將並存在市場當中,完全依照客戶的需求來進行設計與調整,但整體效能提升、ASP也連帶走升趨勢不變。

根據業者的預期,2023年下半年起水冷系統將開始放量,2024年水冷的導入度將提升,2025年則將會更成長更明顯。

台灣散熱模組族群佈局

useMyKeyWord
useMyKeyWord
useMyKeyWord
useMyKeyWord
useMyKeyWord

延伸閱讀

製作小組

記者|羅毓嘉

設計|蔡涵綸